#differential privacy

3 篇

Private Retrieval Augmented Generation via Random Projection

基于随机投影的隐私保护检索增强生成

🧭 隐私保护 RAG · 随机投影

University of Chicago

用随机投影同时处理知识库与查询嵌入，在保持语义相似度的同时缓解数据抽取攻击，优于DP方案

📌 工作参考价值（4 点）

在涉及用户/商家敏感数据的 RAG 场景（如客服知识库、内部文档问答）中，可对 datastore embedding 和 query embedding 用同一个随机投影矩阵降维后再做检索；无需复杂 DP 机制，工程实现简单，还能降低向量维度、省存储与计算。
随机投影矩阵可以按租户或定期更换，增加攻击者从泄露的投影向量恢复原文的难度；但要注意它不能替代访问控制与审计，对强背景知识的成员推断攻击防护有限。
对电商搜索/推荐中跨团队共享商品或用户行为 embedding 的场景，可以先随机投影再共享，在 cosine/点积检索损失较小的前提下减少原始 embedding 泄露风险。
论文表明随机投影在检索与生成质量上优于 DP baseline，可作为轻量隐私基线；若业务需要正式合规保障，仍需结合差分隐私或其他审计机制。

RAG | 2026-10-15 | cs.AI | score 7/10

解耦学习与选择：slate 推荐在噪声分数下的隐私与稳定性

🧭 Slate 推荐 · 差分隐私与稳定性

University of Bergen, Centre for the Science of Learning & Technology (SLATE) · City University of Macau, School of Education

形式化随机分数学习器+确定性选择器的解耦框架，给出差分隐私作用域契约和可证明的分数到 slate 稳定性证书

📌 工作参考价值（4 点）

将模型学习与确定性选择层解耦，对选择器输出做差分隐私后处理审计：当选择器输入来自私有模型输出时，必须单独进行隐私记账，不能假设后处理自动提供全局隐私；可据此在推荐架构中明确『隐私作用域契约』，避免合规盲区。
用 logged margin certificate 监控线上 slate 替换稳定性：记录每个 slate 的最小贪心决策间隔，当分数更新导致的目标移动小于一半 margin 时，顺序不变；该机制可用于安全部署模型更新、减少线上排序抖动和 A/B 测试中的 churn。
针对在线学习、探索噪声等 noisy scores 场景，引入 anchor weight 降低 ranking churn；电商推荐中可对新品或冷启动 item 的分数增加先验锚定权重，稳定列表展示。
审计轨迹：选择器输出附带可审计的差分隐私 trace，有利于治理与事件回溯；可在推荐系统日志中记录特征、分数、选择规则，形成可验证的决策链路。

RecSys | 2026-09-24 | cs.IR | score 6/10

面向数据异质的隐私保护联邦提示微调：子空间分解专家方法

🧭 联邦学习 · 子空间分解 · 多专家提示

Beihang University · Renmin University of China · Beijing Jiaotong University

用子空间分解建模多专家提示，以低秩因子通信替代全量专家，在差分隐私下平衡个性化与泛化

📌 工作参考价值（4 点）

联邦多场景推荐中的参数低秩解耦：可将全局共享基础表示与私有残差分离，通信仅传递低秩因子，减少隐私噪声，适合跨商家数据协同训练，例如用户偏好共享底座+店铺私有调整。
动态专家路由用于多域推荐融合：Instance-aware Expert Fusion 的思路可应用于多场景推荐系统，在服务端缓存各领域 logits，客户端轻量路由实时融合，降低推理延迟。
隐私约束下的多任务 LoRA 合并：将多个 LoRA 专家表示为共享低秩空间+私有残差，可在不暴露原始参数下进行安全聚合，适合联邦 fine-tuning 场景。
通信效率与效用平衡的工程灵感：通过固定公共基底避免每轮传输全量专家，对带宽敏感的边缘推荐模型部署有直接参考价值。

Training | 2026-07-23 | cs.CV | score 6/10